拟人化的乐观
❦
拟人论的核心谬误在于，对于某个因果结构与人类大脑的因果结构如此不同的事物，你期待它能被你的大脑，这个黑箱所预测，即便毫无理由。
在《群体选择主义的悲剧》中，那些早期（1966 年之前）的生物学家相信：捕食者会自发克制繁殖，以免过度繁殖、挤爆栖息地并耗尽猎物种群。后来，当 Michael J. Wade 真正在实验室里创造出近乎不可能实现的群体选择条件时，成体却适应出了同类相食：吞食卵与幼虫，尤其是雌性幼虫。1
那么，群体选择主义者可能为什么没有想到这种可能性呢？
假设你是某个部落的一员，并且你知道在不久的将来，你的部落会遭遇资源挤压。你也许会提出这样一个解决方案：每一对夫妇最多只能有一个孩子。有了第一个孩子之后，这对夫妇就开始控制出生。至于「让每个人都尽可能多生孩子，然后再猎杀掉分而食之，尤其是女孩」这样的说法，甚至不会在你脑海里作为一种可能性出现。
对于你的目标，试想一种解决方案的偏好排序。你需要一个在偏好排序里排名越高越好的解决方案。你如何找到它？当然是靠大脑！把你的大脑看作一个「高排名方案生成器」，一种搜索过程，能够产生在你天生偏好排序中排名很高的解法。
现实世界问题的解空间通常都相当大，这就是为什么你需要一个高效的大脑：它甚至不会费心去构造绝大多数低排名的解法。
如果你的部落面临资源挤压，你当然也可以尝试单脚到处跳，或者把自己的脚趾咬下来。这些「解决方案」显然行不通，代价巨大——你一看就知道。事实上，你的大脑高效到不会浪费时间考虑这些糟糕的方案；它压根不会生成它们。在搜寻高排名解法时，你的大脑会直接飞向解空间的某些区域，比如「部落里所有人共同商议，同意在资源挤压过去之前，每对夫妇最多生一个孩子」。
像「每个人尽可能多生孩子，然后吃掉女孩」这样排名极低的解法，并不会在你的搜索过程中被生成出来。
但一个选项排名的「低」或「高」，并不是某种内在属性。它是偏好选择的优化过程的属性。不同的优化过程，会以不同的顺序进行搜索。
就进化而言，个体尽可能繁殖、然后吃掉别人的女儿，是毫不费力的；而个体为了群体利益而自愿克制自身繁殖，则荒谬绝伦。或者，用更不拟人化的说法：第一组等位基因会在一个种群里迅速取代第二组。（自然选择在这里并没有明显的搜索顺序，突变的两种替代方案看起来是近乎同样简单的。）
假设某位生物学家说：「如果捕食者种群的资源是有限的，进化就会把它们塑造得会自愿克制繁殖——如果我是负责缔造捕食者的人，我就会这么做。」这就是赤裸裸的拟人化，推理线条完全暴露这样的思路：我会这样做，所以我推断进化也会这样做。
在我的工作中，偶尔也会遇到这种赤裸裸的谬误。但假设你对某人说：「AI 不一定会像你一样运作。」，或者对一位假想的生物学家说：「进化并不像你一样运作。」对方会怎么回答？我可以告诉你一个你绝不会听到的回应：「天哪！我之前没意识到这一点！我的推理中有一步是不成立的；我会丢掉结论，从头开始。」
不，你会听到的反而是：为什么任何 AI 都必须以说话者的方式推理。或者，为什么自然选择尽管遵循着完全不同的优化标准、并采用完全不同的优化方法，却仍然应当做出那些在人类看来是好主意的同样的事。
因此，就有了那套精致的想法：群体选择会偏好这样一些捕食者群体，其中个体会自愿放弃繁殖机会。
群体选择主义者们的预测，与直接犯下谬误的人偏差得一样严重。他们的最终结论与他们公开假设「进化必然像他们自己那样思考」时并无二致。他们把论证中写在底线上的部分擦掉了，却没有擦掉真正的底线，然后又写上新的合理化方式。这样一来，谬误推理就被伪装起来，推理中那一步显而易见的缺陷被隐藏了，结论也仍然完全相同，因此在现实里也完全错误。
但为什么会有科学家这么做呢？最终，得出的数据反对群体选择主义者，这令他们很尴尬。
正如我在《虚假优化准则》中所说，我们人类似乎进化出了一种本能：主张「我们」偏好的政策几乎可以从任何优化标准中推导出来。政治是祖先环境的一部分；我们是那些最擅长说服别人相信「部落利益」（而不只是他们自己的利益）要求处决他们憎恨的竞争对手 Uglak 的人的后代。我们当然不是 Uglak 的后代；他没能论证出「部落的道德准则」（而不仅仅是他显而易见的私利）要求他活下来。
而且因为我们越发富有说服力地论证我们所相信的东西，我们也进化出了一种本能：真诚地相信其他人的目标、以及我们部落的道德准则，确实意味着他们应该为了他们自身的利益而按我们的方式行事。
所以，群体选择主义者想象着捕食者克制繁殖这幅美好的图景时，会本能地合理化：为什么自然选择即便按照自然选择自身的目的，也应当按他们的方式做事。狐狸如果克制繁殖，会更适应！不，真的！它们甚至会在繁殖上胜过那些不克制繁殖的狐狸！真的相信我！
试图把自然选择论证得像你想的一样，其问题在于：进化本身并不包含通过你的论证就能有所改变的事物。进化不像你一样运作，更不用提会存在某个元素，能听见或在意你煞费苦心去解释，为什么进化应当按你的方式行事。人类论证作为一种优化过程，甚至都无法与自然选择的内部结构相度量；人类论证并不会推动等位基因的改变，尽管会在人类政治中扮演因果角色。
因此，群体选择主义者并没有成功地说服自然选择按他们的方式行事；他们只是当现实以不同方式展开时感到尴尬。
这里有一层关于不友好型 AI相当浓厚的潜台词。
但这个观点可以推广下去：这就是一般意义上乐观推理的问题。什么是乐观？就是按你自己的偏好排序对可能性排名，选出其中一个在你的偏好排序里很高的结果，然后不知怎么地，这个结果就变成了你的预测。过程中产生的那些精致的合理化解释，大概并没有人们愿意相信的那么重要；回溯认知史，你会发现我们只是在「乐观输入，乐观输出」。但自然本身，或任何我们正在讨论的其他过程，并不实际中会因为这样在你的偏好排序里给结果排名，并选出一个高排名结果。因此，大脑无法与环境同步，预测也就无法符合现实。